Chùa có diện tích khuôn viên rộng được xây dựng năm 1504 Dương lịch, Phật lịch 2047. Sau 3 lần di dời và được Bộ Văn hoá Thể thao và Du lịch chính thức trùng tu hoàn chỉnh vào năm 2011 cho đến nay. Chùa Phật Lớn được xem là niềm tự hào của người dân thành phố bởi lịch sử hình thành, quy mô kiến trúc độc đáo, gắn liền với những giá trị văn hoá truyền thống của đồng bào Khmer Tây nam bộ. Tham quan chùa Phật Lớn, du khách có thể cảm nhận được không gian thanh tịnh tuyệt vời cùng với những tiểu mục công trình kiến trúc đặc trưng truyền thống.

Chùa có kiến trúc theo kiểu cổ truyền chùa Khmer, các họa tiết hoa văn trang trí chính điện, giảng đường, cổng chùa, hàng rào...Với đường nét rất tinh xảo. Trong chùa có nhiều ngôi tháp cổ và nhiều cây cổ thụ hàng trăm năm tuổi rất hiếm có tại các ngôi chùa trong tỉnh. Đặc biệt là cây U Đàm.Trước Chính điện ngày nay có cây U Đàm (tiếng Khmer gọi là cây Ka Răng) cành lá xum xuê, tươi tốt.

Lịch sử hình thành của chùa gắn liền với lịch sử kháng chiến chống giặc ngoại xâm bảo vệ Tổ quốc của dân tộc ta. Lúc 17 giờ, ngày mùng 6 tháng 8 năm 1948, quân Pháp và bọn tay sai đã thảm sát 32 chiến sĩ cách mạng (bị Pháp bắt làm tù nhân giam ở khám lớn Rạch Giá đưa đến) tại hàng rào bên cạnh ngôi chính điện. Ngày nay, tại đây đã đặt bia tưởng niệm để ghi lòng, tạc dạ đối với 32 chiến sĩ cách mạng, đồng bài yêu nước đã hy sinh trong thời kì kháng chiến chống Pháp bảo vệ Tổ quốc.